天不怕地不怕，就怕流氓有文化！深信服监测系统引争议

近日，深信服研发的监测系统引。

2月12日，有记者采访深信服工作人员得知，深信服研发的监测系统，通过公司内网对用户公司的员工进行监控和记录，并不包括个人网络。言下之意，他们的系统，仅通过内网监控员工，不涉及侵犯员工个人隐私。

据了解，深信服早在2018年就申请了“一种离职倾向分析方法、装置、设备及存储介质”的专利。笔者在专利网查询得知，该方法包括：获取员工终端中的上网行为数据；判断所述上网行为数据中是否存在与离职倾向相关的行为数据等。

尚不清楚深信服这套监控系统是如何建立员工网络词语和离职倾向的关联概率的，也无法评估其通过抓取员工阅读和用语中涉及到的一些关键词，来判定员工是否有离职倾向的准确度。但我清楚，员工用语中，如有涉及与离职相关的词汇，有多种可能性。可能是学习相关知识的需要，可能是帮助朋友了解相关情况的需要，可能是看到某类新闻之后的拓展阅读需要，还有可能是网络大数据算法失误推送给他被动而观看。通过技术手段是很难做出准确判断的，我们自以为非常高大上的所谓大数据智能语言监控系统，实际上漏洞百出，极其低能。

比如我使用某撰一键检测系统，检测我的一篇研究上市公司财务造假数量与比例的文章，该系统就告诉我，文章中“证监会”三个字属于违禁词，但我文中仅介绍我所统计的案例来自于证监会官网。这也违禁？

这样一种极不完善的也压根不太准确的玩意，居然在2018年获取了国家专利。啼笑皆非之余，我思考到了科技道德，特别是科技企业和科技人员的道德问题。

天不怕地不怕，就怕流氓有文化。

中国人有句俗语，叫“天不怕地不怕，就怕流氓有文化”。这句俗语的字面意思是，有文化的流氓是非常令人恐惧的。其隐含的哲学思想是，知识和文化失去了道德将会作恶社会！

科学技术被用来作恶，确实给人类带来过深重灾难。

二战时期的法西斯国家联盟轴心国，利用他们的工业革命带来的领先技术，发动了史无前例的第二次世界大战，葬送了几千万条鲜活的生命。

近期科技人员失去科学道德作恶社会的案例也很多。比如这几年，AI 技术迅速发展，并正在造福人类，比如说语音助手、机器人服务等等，但是人们对其技术的运用，并不一定都是正面的。

三年前的华尔街日报曾经报道，2019年3月，犯罪分子通过商业化的人工智能语音生成软件，成功模仿并冒充一家英国能源公司的德国母公司 CEO，来欺骗其多位同事和合作伙伴，一天内多次诈骗并转移资金，使得该公司损失了约173万元人民币。

前两年，美国程序员Alberto开发出一款名叫DeepNude的软件。借助AI技术，使用者无需专业知识，只要提交一张女性照片，就能自动“脱掉”衣服，生成裸照。裸露的皮肤越多，处理效果越好。当然，裸照也不是免费得到的，该软件分为免费和收费两个版本，免费版本会在处理过的照片上放上大片水印；支付50美元使用收费版本则可去除水印。该APP退出后，网上流传出许多明星被“脱掉”衣服后的照片。

在我们国家，一些丧失科学道德的网络科技人员和大数据公司，利用专业知识开发爬虫技术，非法获取和贩卖“上网地址、收货地址、聊天记录、搜索记录”等个人信息，进而提供价格高昂的定位、“告密”等服务，异常猖獗。导致大数据行业造福人类的繁荣与侵害人类的隐忧并存。

这几年，涉嫌利用爬虫技术窃取和贩卖个人信息，让网民深受其害的数据堂、巧达科技、魔蝎科技、新颜科技等大数据行业公司，相继被公安机关查处，灰色生意的暴利和高额报酬，让一些大数据公司和技术人员失去了职业操守，彻底变成了网络上的害虫。

再比如我们很多的科技公司，利用其互联网技术与优势，做起网络高利贷生意，收割网民财富的事，也极为普遍。2022年1月25日上午，成都360某办公区，一个刘姓男子砍伤360贷款部门一工作人员的右手手掌及右腿膝盖。事件起源于360通过网络发放高利贷。其实这几年我们还真的找不到我国有几家互联网企业不做高利贷生意。但我们去看看谷歌、微软等他国互联网企业，又有哪个在做与发展科技无关的高利贷生意？

要强化法律对科技道德的约束。

全国人大代表、腾讯老板马化腾曾经向两会提交过科技伦理方面的提案。

科技伦理，就是科技道德。马化腾在在《关于加强科技伦理建设 践行科技向善理念的建议》提案中提出：

建议加强科技伦理的制度化建设；加快研究数据、人工智能、基因编辑等新兴技术领域的法律规则问题，防范并打击数据滥用行为；加强科技伦理的教育宣传，鼓励全社会践行“科技向善”的理念。

马化腾在提案中说：国家创新驱动发展战略、数字中国建设、数字时代的商业竞争都离不开科技伦理，科技就像一个工具，好人用得好是好事情，如果说坏人拿高科技作恶的话，我们觉得危害是非常大的。

类似深信服开发监测员工系统之类的科技作恶的案例，我相信绝非个案和孤例。我们在发明、开发和运用先进的科学技术时，如何避免侵害人类和社会，这的确需要国家立法予以保障。希望有关部门能够高度重视科技道德问题，在人工智能运用、数字安全、个人信息保护等方面，加快立法进程，强化法律对科技道德的约束。

【作者 徐三郎】